Khu vực xung quanh Sekigahara là một phần của tỉnh Mino ngày xưa. Năm 1600, trận Sekigahara diễn ra tại đây. Trong thời kỳ Edo, nó là lãnh thổ tenryo trực thuộc Mạc phủ Tokugawa, do một Hatamoto quản lý. Trong thời kỳ cải cách địa chính Minh Trị Duy tân sau thời Minh Trị, khu vực này được tổ chức thành quận Fuwa, tỉnh Gifu. Làng Sekigahara được thành lập ngày 1 tháng 7 năm 1889 với việc thành lập hệ thống đô thị hiện đại, và được nâng lên thành phố vào ngày 1 tháng 4 năm 1928. Năm 1954, Sekigahara sáp nhập làng Imasu, cũng như một phần của thị trấn lân cận Tarui. Một vụ sáp nhập được đề xuất với thành phố láng giềng Ōgaki đã bị từ chối vào năm 2004.